Safety certification of data-driven control techniques remains a major open problem. This work investigates backward reachability as a framework for providing collision avoidance guarantees for systems controlled by neural network (NN) policies. Because NNs are typically not invertible, existing methods conservatively assume a domain over which to relax the NN, which causes loose over-approximations of the set of states that could lead the system into the obstacle (i.e., backprojection (BP) sets). To address this issue, we introduce DRIP, an algorithm with a refinement loop on the relaxation domain, which substantially tightens the BP set bounds. Furthermore, we introduce a formulation that enables directly obtaining closed-form representations of polytopes to bound the BP sets tighter than prior work, which required solving linear programs and using hyper-rectangles. Furthermore, this work extends the NN relaxation algorithm to handle polytope domains, which further tightens the bounds on BP sets. DRIP is demonstrated in numerical experiments on control systems, including a ground robot controlled by a learned NN obstacle avoidance policy.

最近的作品试图通过对比原始扰动大的域进行攻击，并在目标中增加各种正则化项，从而提高受对抗训练的网络的验证性。但是，这些算法表现不佳或需要复杂且昂贵的舞台训练程序，从而阻碍了其实际适用性。我们提出了IBP-R，这是一种新颖的经过验证的培训算法，既简单又有效。 IBP-R通过基于廉价的间隔结合传播对扩大域的对抗域进行对抗性攻击来诱导网络可验证性，从而最大程度地减少了非凸vex验证问题与其近似值之间的差距。通过利用最近的分支机构和结合的框架，我们表明IBP-R获得了最先进的核能 - 智能权准折衷，而在CIFAR-10上进行了小型扰动，而培训的速度明显快于相关的先前工作。此外，我们提出了一种新颖的分支策略，该策略依赖于基于$ \ beta $ crown的简单启发式，可降低最先进的分支分支算法的成本，同时产生可比质量的分裂。

大多数现实世界的应用需要处理传感器噪声或预测性不确定性等旋能性，其中正式规格的所需行为是固有的概率。尽管正式核查确保神经网络的可靠性，但概率规格方向的进展受到限制。在这个方向上，我们首先介绍神经网络的概率规范的一般性，它捕获了概率网络（例如，贝叶斯神经网络，MC-Dropout Networks）和不确定输入（通过传感器噪声或其他扰动而产生的输入）。然后，我们提出了一种通过概括拉格朗日二元性的概念来验证这些规范的一般技术，替换具有“功能乘法器”的标准拉格朗日乘法器，其可以是给定层上激活的任意功能。我们表明，功能乘法器的最佳选择导致精确的验证（即，声音和完全验证），以及特定形式的乘法器，我们开发了易诊的实际验证算法。我们通过将它们应用于贝叶斯神经网络（BNNS）和MC差动网络，以及认证属性，以及诸如对分发超出（OOD）数据的抗逆性鲁棒性和鲁棒检测的认证性能来验证我们的算法。在这些任务中，与现有工作相比，我们能够提供明显更强烈的保证 - 例如，对于在CiFar-10上培训的VGG-64 MC-Tropout CNN，我们改进了认证的AUC（真实AUC的验证的下限）对于鲁棒的OOD检测（在CIFAR-100上）起价$ 0 \％\ lightarrow 29 \％$。同样，对于在MNIST培训的BNN，我们从60.2美元\％\ lightarrow 74.6 \％$提高了强大的准确性。此外，在一种新颖的规范 - 分布稳健的检测 - 我们从5 \％\ lightarrow 23 \％$的5 \％$。

在过去的十年中，修剪神经网络已经流行，当时证明可以安全地从现代神经网络中安全地删除大量权重，而不会损害准确性。从那时起，已经提出了许多修剪方法，每种方法都比以前更好。如今，许多最先进的技术（SOTA）技术依赖于使用重要性得分的复杂修剪方法，通过反向传播获得反馈或在其他等方面获得基于启发式的修剪规则。我们质疑这种引入复杂性的模式，以获得更好的修剪结果。我们对这些SOTA技术基准针对全球幅度修剪（全球MP）（一个天真的修剪基线），以评估是否确实需要复杂性来实现更高的性能。全球MP按其幅度顺序排列权重，并修理最小的权重。因此，它以香草形式是最简单的修剪技术之一。令人惊讶的是，我们发现香草全球MP的表现优于所有其他SOTA技术，并取得了新的SOTA结果。它还可以在拖叉稀疏方面取得良好的性能，当以逐渐修剪的方式进行修剪时，我们发现这是增强的。我们还发现，全球MP在具有卓越性能的任务，数据集和模型之间可以推广。此外，许多修剪算法以高稀疏速率遇到的一个常见问题，即可以通过设置要保留在每层中的最小权重阈值来轻松固定在全球MP中。最后，与许多其他SOTA技术不同，全球MP不需要任何其他特定算法的超参数，并且非常简单地调整和实施。我们在各种模型（WRN-28-8，Resnet-32，Resnet-50，Mobilenet-V1和FastGrnn）和多个数据集（CIFAR-10，Imagenet和HAR-2）上展示了我们的发现。代码可在https://github.com/manasgupta-1/globalmp上找到。

我们讨论了区块链作为协作价值共同创建平台的未来方向，在该平台中，网络参与者可以获得与其他人断开连接时无法访问的额外见解。因此，我们提出了一个分散的机器学习框架，该框架经过精心设计，以尊重民主，多样性和隐私的价值。具体而言，我们提出了一个联合的多任务学习框架，该框架集成了隐私保护动态共识算法。我们表明，称为“扩展器图”的特定网络拓扑可显着提高全球共识构建的可扩展性。我们通过对开放问题作了一些评论来结束论文。

预测，预测了大量的机器人和人为辅助任务。 NASA为了解这些天体的地质和构成的努力在很大程度上取决于机器人臂的使用。当人类与机器人探险家一起工作时，安全性和冗余方面至关重要。此外，机器人臂对于卫星维修和计划的轨道碎片缓解任务至关重要。这项工作的目的是创建一个基于自定义的计算机视觉（CV）的人工神经网络（ANN），该神经网络将能够快速识别从单个（RGB-D）的7度自由（DOF）机器人组的姿势图像 - 就像人类可以轻松识别手臂是否指向一定方向一样。 Sawyer机器人臂用于开发和培训这种智能算法。由于Sawyer的关节空间涵盖了7个维度，因此覆盖整个联合配置空间是一项无法克服的任务。在这项工作中，使用类似于Taguchi方法的正交阵列，以有效地跨越关节空间，以最少的训练图像数量。该生成的数据库用于训练自定义ANN，其准确度平均等于数据库生成使用的最小关节位移步骤的两倍。预先训练的ANN将有助于估计在太空站，航天器和流浪者作为辅助工具或应急计划上使用的机器人操纵器的姿势。

如今，预测机器学习模型通常以无状态和昂贵的方式进行更新。想要建立基于机器学习的应用程序和系统的公司的两个主要未来趋势是实时推理和持续更新。不幸的是，这两种趋势都需要一个成熟的基础设施，这很难实现本地人。本文定义了一种新颖的软件服务和模型交付基础架构，称为连续学习 - 服务（CLAAS）来解决这些问题。具体而言，它包含持续的机器学习和连续的集成技术。它为数据科学家提供了模型更新和验证工具的支持，而无需进行本地解决方案，并且以高效，陈述和易于使用的方式提供了支持。最后，此CL模型服务易于封装在任何机器学习基础架构或云系统中。本文介绍了在两种现实世界中评估的CLAAS实例化的设计和实现。前者是使用core50数据集的机器人对象识别设置，而后者是命名类别，并且使用时尚域中的deepfashion-c数据集属性预测。我们的初步结果表明，无论计算在Continuum Edge-Cloud中的何处，连续学习模型服务的可用性和效率以及解决方案在解决现实世界用例中的有效性。

许多科学和工程问题需要具有稀有和极端事件的准确模型。这些问题对数据驱动建模具有具有挑战性的任务，许多天真的机器学习方法无法预测或准确地量化这些事件。这种困难的一个原因是，具有极端事件的系统，根据定义，产生不平衡数据集，并且该标准损耗功能容易忽略稀有事件。也就是说，适合培训模型的良好良好度量的指标并非旨在确保对罕见事件的准确性。这项工作旨在通过考虑设计为突出异常值的损耗函数来提高回归模型的回归模型的性能。我们提出了一种新颖的损失功能，调整后的输出加权损耗，并将基于熵的损耗功能的适用性扩展到具有低维输出的系统。使用呈现极端事件的几种动态系统的案例测试所提出的功能，并显示在极端事件的预测中显着提高准确性。